경제인의 나라, 경제인의 아침

세계 각국이 인공지능(AI) 관련 각종 규제 방안을 놓고 골몰하고 있는 가운데 AI로 인한 ‘개인정보 침해 및 유출’ 문제가 난제로 떠올랐다. 

AI 기술 고도화와 함께 AI의 활용도가 높아짐에 따라 AI로 인한 개인정보 침해‧유출 가능성에 대한 우려도 커지면서 적절한 대응책을 마련해야 한다는 목소리도 높아지고 있다. 

국회입법조사처는 22일 관련 연구 보고서를 통해 “많은 학습데이터를 요구하는 AI 환경에서 새로운 형태의 개인정보 처리가 증가함에 따라 개인정보 침해 가능성에 대한 우려는 더욱 커지고 있다”며 “이에 개인정보를 침해한 학습데이터로 만든 알고리즘·모델에 대한 대응 필요성이 제기됐다”고 지적했다. 

국회에서는 ‘AI 시대’에 적합한 대응 방안으로 개인정보 침해 데이터로 학습한 AI에 대한 ‘알고리즘 삭제 명령’과 개인정보보호위원회에 알고리즘 제출요구권 부여 등이 거론되고 있다. 하지만 관련 정책이 기업에 과도한 규제로 작용해서는 안 된다는 지적도 나온다. 

◇ “AI 알고리즘 삭제 명령 타당성 고민해야…다만 기업 피해 최소화 장치 필요”

최근 AI로 인한 ‘개인정보 침해‧유출’ 문제가 빈번하게 발생하고 있다. 챗GPT는 지난해 3월 유료 서비스 챗GPT플러스 이용자의 이름, 이메일 주소, 신용카드번호 뒷 4자리, 유효기간 등 정보와 다른 사용자의 대화 정보를 유출한 것으로 나타났다. 앞서 AI 챗봇 이루다가 학습데이터에 포함돼 있던 이용자의 이름, 주소 등을 노출해 문제가 된 사례도 있다. 

이를 놓고 일각에서는 영향력이 커지고 있는 AI에 대한 새로운 규제 수단으로 ‘알고리즘 삭제 명령’을 활용할 필요가 있다는 목소리를 내고 있다.

미국의 경우 연방거래위원회(FTC)가 2019년부터 개인정보 보호를 위반한 사례에 대해 학습 결과물인 AI 알고리즘 삭제 명령을 내리고 있다. 

하지만 알고리즘 삭제 명령을 놓고 논란이 일고 있다. 알고리즘 삭제 명령은 과징금 부과 같은 제재 보다는 효과적인 제재 수단이 될 수 있다는 평가가 있는 반면 기업이 상당한 시간‧비용을 들여 만든 AI 모델을 삭제하는 것이므로 기업에 경제적 피해를 주고 AI 산업 경쟁력을 저하시킬 수 있다는 지적을 받는다. 

이에 국회에서는 안전 장치 마련을 전제로 알고리즘 삭제 명령을 AI에 대한 규제 수단으로 활용하는 방안을 검토해 볼 수 있다는 의견이 나온다. 

국회입법조사처는 “알고리즘 삭제 명령의 긍정적인 효과를 고려해 개인정보 침해의 정도가 현저히 큰 상황에 대해서 타당성을 고민해 볼 필요는 있다”며 “다만 부정적인 효과도 상당하고 기술적 어려움이 있는 만큼 삭제하는 과정에서 발생할 수 있는 피해를 최소화하기 위한 장치와 실질적인 집행 방법 및 신기술 규제에 필요한 정부의 기술 역량 강화를 함께 고민해야 할 것”이라고 제언했다.

이어 “동시에 AI 산업이 과도한 규제로 발이 묶이지 않도록 기업의 자율적인 규제를 유도하는 방향으로 정책을 모색할 필요도 있다”고 덧붙였다. 

◇ “개인정보보호위에 알고리즘 제출요구권 부여, 불법정보 지정‧유통금지해야” 
    “AI 알고리즘 영업비밀, 과도한 규제…AI 기술 판별 어려워 실효성 낮아”

국회에서는 개인정보보호위원회에 알고리즘 제출요구권을 부여하기 위해 관련 법 개정이 추진되고 있다. 김영배 더불어민주당 의원이 발의한 개인정보 보호법 개정안에는 AI 회사의 알고리즘으로 개인정보가 유출된 경우 개인정보보호위가 해당 알고리즘을 제출 받아 알고리즘에 시정 사항이 있는지 확인하도록 하는 내용이 명시됐다.

이 같은 내용으로 법안이 개정되면 자료제출 요구에도 알고리즘을 제출하지 않거나 거짓으로 제출한 자에게는 1000만원 이하의 과태료를 부과하고, 개인정보보호위가 소속 공무원으로 하여금 개인정보처리자의 사무소 등에 출입해 알고리즘을 검사할 수 있도록 하는 것이 가능해진다. 

김 의원은 “현행법은 인공지능 알고리즘에 의한 개인정보 유출이 발생했을 경우 이를 처벌하거나 개인정보 소유자의 권리를 구제할 방안이 제대로 마련돼 있지 않다”면서 법안 개정 필요성을 강조했다. 김 의원의 개정안은 현재 정무위원회 계류 중이다. 

박진 국민의힘 의원은 지난해 7월 대통령령으로 정하는 AI 기술을 이용해 생성한 정보가 개인정보 보호에 관한 법령에 위반되는 경우 이를 불법정보로 지정해 정보통신망에서 유통되는 것을 금지하는 내용의 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률’ 개정안을 발의했다. 박 의원의 개정안은 과학기술정보방송통신위원회에서 심사를 기다리고 있다.

박 의원은 “최근 AI 기술을 통해 생성된 정보가 개인정보를 포함하는 경우가 발생함에도 해당 정보가 개인정보를 거래하는 내용의 정보가 아닌 경우 현행법상 불법정보에 해당하지 않아 아무런 규제 없이 정보통신망에 유통되고 있다”면서 법 개정 필요성을 강조했다.

하지만 이들 법안에 대해서는 과도한 규제라는 지적과 함께 실효성에 의문을 제기하는 목소리도 나온다. 

국회 정무위 고상근 수석전문위원의 검토 보고서에 따르면 한국인터넷기업협회는 김 의원의 개정안에 대해 “AI 알고리즘이 사업자의 영업 비밀에 해당하는 지식재산권이자 핵심 기술임을 고려하면 알고리즘 제출의무 부과는 과도한 규제에 해당한다”며 “이로 인해 사업자가 기업 경쟁력과 알고리즘 고도화의 기회를 상실할 우려가 있다”고 주장했다.  

과방위 김건오 수석전문위원은 박 의원의 개정안에 대한 검토 보고서에서 “정보통신망에서 유통되는 정보가 인공지능 기술을 이용해 만들어진 것인지 판별하기 어렵다는 점에서 개정안의 실효성이 낮을 가능성을 고려할 필요가 있어 보인다”고 지적했다. 

굿모닝경제 김희원 기자